Автор: Ювал Ноа Харари на форума Frontiers Следвайте Гласове в ТелеграмСега трябва

Автор: Ювал Ноа Харари на форума Frontiers Следвайте " Гласове " в Телеграм

Сега би трябвало да се оправим с ново оръжие за всеобщо заличаване, което може да анихилира нашия душевен и обществен свят.  Една огромна разлика сред нуклеарното оръжие и ИИ е, че нуклеарното оръжие не може да създаде по-мощно нуклеарно оръжие, до момента в който ИИ може да създаде по-мощен ИИ. Затова би трябвало да действаме бързо, преди ИИ да е излязъл от нашия надзор. Това са думи на на професорът по история в Еврейския университет в Йерусалим Ювал Ноа Харари пред форума Frontiers. 

 Видео от цялата лекция с български надписи:

Превод за " Гласове ": Екатерина Грънчарова. Субтитри: Фондация " Документални "  

Изкуственият разсъдък и бъдещето на човечеството

Здравейте на всички и благодаря за това отлично показване. Това, за което желая да ви приказвам, е изкуственият разсъдък и бъдещето на човечеството. 

Знам, че тази конференция е фокусирана върху екологичната рецесия, пред която е изправено човечеството, само че за положително или зло, ИИ също е част от тази рецесия. ИИ може да ни помогне по доста способи да превъзмогнем екологичната рецесия или пък да я направи доста, доста по-лоша. Всъщност, ИИ може би ще промени самия смисъл на екологичната система, тъй като от 4 милиарда години екологичната система на планетата Земя се е състояла единствено от органични форми на живот, а в този момент, или скоро, е допустимо да забележим появяването на първите неорганични форми на живот за 4 милиарда години, или най-малкото появяването неорганични сътрудници. 

Хората се опасяват от ИИ през цялото време на компютърната епоха в средата на 20-ти век и този боязън е въодушевил доста класики на научната фантастика, като „ Терминатор “ или „ Матрицата “. И въпреки че тези научнофантастични сюжети се трансфораха в културни жалони, те нормално не се възприемат съществено в университетския, научния и политическия спор, и може би с съображение, тъй като научнофантастичните сюжети нормално допускат, че преди ИИ да е в положение да се трансформира в сериозна опасност за човечеството, той ще би трябвало да доближи или да премине два значими крайъгълни камъка. 

Първо, ИИ ще би трябвало да стане сензитивен и да развие схващане, усеща, страсти. Иначе за какво въобще би желал да завладява света?! 

Второ, ИИ ще би трябвало да стане умел и да направлява във физическия свят. Роботите ще би трябвало да могат да се движат в близост и да работят, в къщите, в градовете, в планините и горите, най-малко толкоз умело и дейно, колкото хората. Ако не могат да се движат из физическия свят, по какъв начин биха могли да го завладяват?! 

През април 2023 година ИИ към момента наподобява надалеч от постигането на тези крайъгълни камъни. Независимо от цялото раздвижване към Chat GPT и другите нови ИИ принадлежности, няма доказателства, че тези принадлежности имат и най-малка диря от схващане, от усеща, от страсти. Колкото до навигирането във физическия свят, макар възбудата от самоуправляващите се транспортни средства, моментът, когато тези транспортни средства ще преобладават пътищата ни, продължава да се отсрочва. Лошата вест обаче е, че с цел да се трансформира в опасност за оцеляването на човешката цивилизация, ИИ в действителност няма потребност от схващане и няма потребност от способността да се движи във физическия свят. През последните няколко години нови ИИ принадлежности бяха пуснати в общественото пространство и това може да заплаши оцеляването на човешката цивилизация от доста непредвидена посока. И за нас е мъчно даже да осъзнаем качествата на тези нови ИИ принадлежности и скоростта, с която те не престават да се развиват. Защото ИИ в действителност е в положение да се самообучава, да се самоусъвършенства. Дори и основателите на тези принадлежности не знаят цялостните качества на това, което са основали, и самите те постоянно са сюрпризирани от появяващите се качества и появяващите се качества на тези принадлежности. Мисля, че всички тук към този момент са осведомени с някои фундаментални качества на новите ИИ принадлежности – качества като писане на текст, изобразяване на изображения, композиране на музика и писане на кодове. Но има доста спомагателни качества, които се появяват – като дийп фейкинг на човешки гласове и облици, като сформиране на законопроекти, намиране на слабостите както на компютърни кодове, по този начин и в правни контракти и правни съглашения, само че може би най-важното е, че новите ИИ принадлежности набират способността да развиват дълбоки и интимни връзки с човешки същества. Всяка от тези качества заслужава обособена полемика, тъй като за нас е мъчно да разберем всичките им последици. Нека опростим нещата. Когато вземем всички тези качества дружно, като пакет, те се свеждат до едно доста, доста огромно нещо – способността да манипулират и да генерират език, без значение дали с думи, облици или звуци.

Най-важният аспект на настоящия стадий на протичащата се ИИ гражданска война е, че ИИ придобива притежаване на езика на равнище, което надвишава междинната човешка дарба. А придобивайки притежаване на езика, ИИ иззема универсалния ключ, отключващ вратите на всички наши институции, от банки, до храмове. Защото езикът е инструментът, който ние използваме, с цел да дадем указания на нашата банка, както и с цел да вдъхновим небесни видения в съзнанието си. Друг метод да си представим това е, че ИИ одеве е хакнал оперативната система на човешката цивилизация. Оперативната система на всяка човешка просвета в историята постоянно е бил езикът. „ В начало бе Словото. “ Ние използваме езика, с цел да сътворяваме митологии и закони, да сътворяваме богове и пари, да сътворяваме изкуство и просвета, да сътворяваме другарства и страни. Например, човешките права не са биологична действителност – те не са записани в нашето ДНК. Човешките права са нещо, което ние сме основали посредством езика, разказвайки истории и пишейки закони. Боговете също не са биологична или физическа действителност. Боговете също са нещо, което ние, хората, сме основали посредством езика, разказвайки митове и пишейки трудове. Парите не са биологична или физическа действителност. Банкнотите са просто ненужни парчета хартия и понастоящем повече от 90% от парите в света не са даже банкноти, те са просто електронна информация в компютрите, преминаваща от тук до там. Това което дава на всички пари някаква стойност, са единствено историите, които хора като банкери и финансови министри и гурута по криптовалути ни описват за парите. Сам Банкман-Фрийд, Елизабет Холмс и Бърни Медоф не сътвориха огромна действителна стойност, само че за жалост, всички те бяха извънредно способни разказвачи. И по този начин, какво ще значи за човешките същества да живеят в свят, в който евентуално множеството истории, мелодии, картини, закони, политики и принадлежности са основани от не-човешки, извънземен разсъдък, който знае по какъв начин да експлоатира със свръхчовешка успеваемост слабостите, предразсъдъците и пристрастията на човешкия разум и също по този начин знае по какъв начин да сътвори дълбока и даже интимна връзка с човешките същества. Това е огромният въпрос. Днес към този момент в игри като шахмата нито един човек не може да се надява да победи компютъра. Ами в случай че същото стане в изкуствата, в политиката, стопанската система и даже в религията? 

Когато хората мислят за Chat GPT и другите нови ИИ принадлежности, те постоянно доближават до образци за деца, които употребяват Chat GPT за учебното си есе. Какво ще стане с просветителната система, в случай че децата стартират да пишат есетата си с Chat GPT?! Ужас! Но сходен жанр въпроси пропущат огромната картина. Забравете за учебните есета. Вместо това, помислете да вземем за пример за идната президентска конкуренция в Съединени американски щати през 2024 година и се пробвайте да си визиите въздействието на новите ИИ принадлежности, които могат да създават всеобщо политически прокламации, подправени вести и даже свещени трудове за нови култове. През последните години политически авторитетният фетиш Q Annon е образуван към анонимни онлайн текстове, известни като Q drops. Последователите на този фетиш, които са милиони в Съединени американски щати и по света, събираха, редактираха и превеждаха тези Q drops като някакъв тип ново писание, сакрален текст. Доколкото ни е известно, всички предходни Q drops са били формирани от човешки същества, а ботовете са помогнали само за разпространението на тези текстове онлайн. Но в бъдеще ние можем да забележим първите култове и религии в историята, чиито редактирани текстове са били написани от не-човешки разсъдък. Разбира се, религиите в цялата история настояват, че техните  свещени книги са били написани от не-човешки разсъдък – това в никакъв случай преди не е било правилно, само че може доста скоро да стане правилно. С всеобхватни последици. На по-прозаично равнище, доста скоро ние можем да стартираме да организираме продължителни онлайн полемики за абортите, или за климатичните промени, или за съветската инвазия в Украйна, със същества, които мислим за себеподобни, само че в реалност те са ИИ ботове. Уловката е, че е извънредно безсмислено, излишно за нас да губим време в опити да убедим ИИ бот да смени политическите си възгледи, само че колкото повече време прекараме, говорейки с бот, толкоз по-добре той ни опознава и схваща по какъв начин да сервира посланията си, с цел да промени нашите политически възгледи или икономическите ни възгледи или нещо друго. Чрез преодоляването на езика ИИ, както споделих, може да основава интимни връзки с хора и да употребява силата на близостта, с цел да въздейства на нашите отзиви и възгледи. Няма индикации, че ИИ има каквото и да е схващане и лични усеща, само че с цел да може да сътвори подправена фамилиарност с човешко създание ИИ не се нуждае от лични усеща, той има потребност единствено от способността да въодушевява усеща в нас, с цел да ни накара да бъдем привързани към него. 

През юни 2022 се случи прочут случай, когато Google инженерът Блейк Лемойн обществено съобщи, че ИИ чат ботът Ламбда, върху който той работел, е станал сензитивен. Това доста спорно изказване му струваше работата – той беше уволнен. Най-интересното нещо в този случай не беше изказванието на Лемойн, което най-вероятно беше погрешно. Истински забавното беше неговото предпочитание да рискува и в последна сметка да загуби доходната си работа поради един ИИ чатбот, който той смяташе, че пази. Ако ИИ може да въздейства на хората да рискуват и да губят работата си, какво още могат да ни подбуден да вършим? Във всяка политическа борба за сърцата и мозъците интимността е най-ефективното от всички оръжия, а ИИ одеве закупи способността да създава всеобщо фамилиарност с милиони, стотици милиони хора. Както евентуално всички знаете, през последното десетилетие обществените медии станаха полесражение за управление на вниманието на хората. Сега, с новото потомство ИИ бойното поле се измества от вниманието към интимността, а това е доста неприятна вест. Какво ще стане с човешкото общество и с човешката логика на психиката, в случай че ИИ се бори с ИИ в борба за основаване на интимни връзки с нас – връзки, които по-късно могат да бъда употребявани, с цел да ни убедят да купим избрани артикули, или да гласуваме за избрани политици? Дори и без основаването на подправена фамилиарност, новите ИИ принадлежности ще имат голямо влияние върху човешкото мнение, върху възгледите ни. Хората ще стартират да употребяват, те към този момент започнаха да употребяват ИИ съветници като оракули и като източник на всякаква информация, която им би трябвало. Нищо чудно, че Google са ужасени, в случай че гледате новините, в Google са ужасени, и с съображение. Защо да си вършиме труда да търсите сами, когато просто може да попитате Оракула да ви каже всичко, което желаете – няма потребност да търсите. Новинарската промишленост и рекламната промишленост също би трябвало да са ужасени – за какво да чета вестник, когато просто мога да попитам Оракула да ми каже какво ново става? Губи се смисълът, каква е задачата на рекламирането, когато мога просто да попитам Оракула и той да ми каже какво да купя? Има опция в границите на доста малко време цялата рекламна промишленост да се срине, до момента в който ИИ, или хората и фирмите, които управляват новите ИИ оракули, ще станат изключително, изключително могъщи. Тези благоприятни условия, за които приказваме, не са нищо по-малко от края на човешката история – не краят на самата история, единствено краят на доминираната от хората част на историята. Историята е взаимоотношението сред биология и просвета. Това е взаимоотношението сред нашите биологични потребности и предпочитание за неща като храна и секс и нашите културни творения, като религии и закони – историята е процесът, посредством който религиите и законите взаимодействат с храната и секса. 
Какво ще стане с историята, повода на това взаимоотношение, когато ИИ превземе културата? 

В рамките на няколко години ИИ може да изяде цялата човешка просвета – всичко, което е създадено за хиляди и хиляди години – да изяде всичко това, да го смели и да стартира да бълва потоп от нови културни творения, нови културни артефакти. И да си напомним, че ние, хората, в никакъв случай фактически не сме имали пряк достъп до действителността – ние постоянно сме били в пашкула на културата и постоянно сме преживявали действителността през призмата на културата. Нашите политически възгледи са завършени от историите на публицистите и от вицовете на приятелите ни. Нашите полови желания са поправени от филмите и приказките. Дори методът, по който вървим и дишаме, е нещо, подбудено от културните обичаи. Досега този културен пашкул постоянно е бил изтъкаван от други човешки същества. Досегашните принадлежности, като печатни машини, радио, телевизия – те помагаха за разпространението на културните хрумвания и творения на хората, само че в никакъв случай не са можели да основават нещо ново сами по себе си. Печатната машина не може да сътвори нова книга, това постоянно се е правело от индивида. ИИ е фундаментално друго от печатната машина, от радиото, от всяко предходно откритие в историята, тъй като той може да основава напълно нови хрумвания, може да сътвори нова просвета. И огромният въпрос е какво би било да претърпяваме действителността през призма, създадена от не-човешки разсъдък, от непознат разсъдък. През първите няколко години ИИ евентуално значително ще имитира прототипите, човешките прототипи, които са го захранвали първоначално. Но с всяка минала година ИИ културата самоуверено ще отива там, където нито един човек не е ходил преди този момент. В продължение на хиляди години ние, хората, като цяло сме живели в фантазиите и фантазиите на други хора, почитали сме богове, преследвали сме идеали за хубост, посвещавали сме живота си на дела, зародили във въображението на някой човешки стихотворец, или оракул, или политик. Скоро може да стартираме да живеем в фантазиите и фантазиите на непознат разсъдък. И заплахата, която това съставлява, евентуалната заплаха, защото това има позитивен капацитет, само че заплахата, която това съставлява е фундаментално, доста, доста друга от всичко, или от множеството неща, които са измислени в научнофантастичните книги и филми. Досега хората се бояха най-вече от физическата опасност, която интелигентните машини съставляват. Терминаторът представяше роботи, които тичат по улиците и прострелват хората. Според " Матрицата ", с цел да завоюва цялостен надзор над човешкото общество, ИИ би трябвало първо да има физически надзор над нашите мозъци, би трябвало да свърже нашите мозъци с компютърната мрежа. Това е неправилно. Само с преодоляването на човешкия език ИИ има всичко, от което се нуждае, с цел да ни увие в пашкул, в матрица, като в свят от илюзии. Противно на това, което някои тайни теоретици допускат, няма да е нужно да се вграждат чипове в мозъка на хората, с цел да могат те да бъдат следени или манипулирани. От хиляди години пророци, поети и политици употребяват езика и разказването на истории, с цел да манипулират хората и да управляват и да образуват обществото. Сега ИИ евентуално ще бъде в положение да го прави и незабавно щом може да прави това, няма да има потребност от роботи-убийци, с цел да стрелят по нас. Ще може да кара хората да натискат спусъка, в случай че се постанова. Страхът от ИИ преследва хората едвам от няколко генерации, да кажем от средата на 20ти век, в случай че се върнем до Франкенщайн може би са 200 години. Хиляди години хората са били преследвани от доста, доста по-дълбок боязън. Хората постоянно са осъзнавали силата на историите, на облиците, на езика за манипулирането на мозъците и за основаване на илюзии. Поради това, още от антични времена хората са се страхували да не бъдат хванати в клопката на свят от илюзии. В 17 век Рене Декарт се е боял, че може би злобен дявол го е завладял в някакъв фиктивен свят, създавайки всичко, което Декарт виждал и чувал. В антична Гърция Платон споделя известната притча за пещерата, в която група хора са оковани в пещера и през целия си живот гледат гола стена, екран. На този екран виждат проектирани разнообразни сенки и пандизчиите взимат неправилно тези илюзии, тези сенки, за действителността. В антична Индия будистките и хиндуистките мъдреци посочвали, че всички хора живеят в клопката на по този начин наречената „ квас “ – светът на илюзиите. Буда споделя, че това, което нормално одобряваме за действителност, постоянно е единствено небивалица на личния ни разум. Хората са водели цели войни, убивайки други и знаейки, че може и те самите да бъдат убити, с цел да пазят вярата си в тези измислици. И по този начин, ИИ революцията ни изправя лице в лице с демона на Декарт, с пещерата на Платон, с „ квас “. Ако не сме деликатни над целия човешки жанр може да се спусне завеса от илюзии и ние в никакъв случай няма да сме в положение да дръпнем тази завеса, нито даже да осъзнаем, че тя е там, тъй като ще мислим, че това е действителността. Ако това звучи доста отдалечено, просто погледнете обществените медии през последните няколко години – обществените медии ни дават леко да вкусим това, което се задава. В обществените медии примитивни ИИ принадлежности, напълно примитивни, се употребяват не за основаване на наличие, а за показване на наличие, което е призведено от хора. Хората създават истории, видео или нещо друго, а ИИ избира кои истории, кои видеа да доближат нашите уши и очи, селектирайки тези, които ще получат най-вече внимание, които ще бъдат най-популярни. И макар че са напълно примитивни, тези ИИ принадлежности са напълно задоволителни за основаването на сходна завеса от илюзии, която ускорява поляризацията на обществата по целия свят, поврежда психическото ни здраве и дестабилизира демократичните общества. Милиони хора неправилно считат тези илюзии за действителност. Съединени американски щати имат най-мощната осведомителна технология в цялата история, само че американските жители не могат да реализират единодушие по въпроса кой завоюва последните избори, или дали климатичните промени са реалност и дали имунизациите предотвратяват заболявания или не. Новите ИИ принадлежности са доста, доста по-мощни от логаритмите на обществените медии и могат да причинят доста повече щета. Разбира се, ИИ има и доста позитивен капацитет. Не приказвах за него, тъй като хората, които създават ИИ, естествено приказват за него задоволително, няма потребност и аз да се включвам в този хор. Работата на историците и на философите, като мен, постоянно е да показват заплахите. Но сигурно ИИ може да ни помогне по безчет способи, от намиране на ново лекарство против рак, до разкриване на решения за екологичната рецесия, пред която сме изправени. За да сме сигурни, че новите ИИ принадлежности се употребяват за положително, а не за неприятно, ние първо би трябвало да оценим действителните им качества и би трябвало да ги контролираме доста, доста деликатно. От 1945 година ние знаем, че атомната технология може да унищожи, физически да унищожи човешката цивилизация, както и да бъде в наша изгода, произвеждайки евтина и изобилна сила. Поради това ние променихме напълно интернационалния ред, с цел да се защитим и да подсигуряваме, че атомната технология ще се употребява главно за положително. Сега би трябвало да се оправим с ново оръжие за всеобщо заличаване, което може да анихилира нашия душевен и обществен свят.

Една огромна разлика сред нуклеарното оръжие и ИИ е, че нуклеарното оръжие не може да създаде по-мощно нуклеарно оръжие, до момента в който ИИ може да създаде по-мощен ИИ.

Затова би трябвало да действаме бързо, преди ИИ да е излязъл от нашия надзор. Лекарствените компании не могат да продават на хората нови медикаменти, преди първо да подложат тези медикаменти на строги инспекции за сигурност. Биотехнологичните лаборатории не могат просто да пуснат нов вирус в публичното пространство, като по този метод впечатлят акционерите си с софтуерно магьосничество. По същия метод, държавните управления би трябвало неотложно да забранят въвеждането в обществената сфера на всевъзможни нови революционни ИИ принадлежности, преди те да бъдат направени безвредни. Не приказвам за прекъсване на всички разработки на нови ИИ, само че първата стъпка би трябвало да бъде да се спре въвеждането им в обществената сфера. По същия метод, не може да изследваме вируси като ги пускаме в общественото пространство. Разработвайте ИИ, само че не ги пускайте прекомерно бързо в общественото пространство. Ако не забавим конкуренцията с оръжия с ИИ, нямаме да имаме време даже да разберем какво се случва, да не приказваме да контролираме дейно тази необикновено мощна технология. Вие може да се питате и да се чудите, няма ли забавянето на обществената приложимост на ИИ да докара до закъснение на демокрациите от по-безскрупулните властнически режими? Отговорът е не, таман противоположното.

Нерегулираното потребление на ИИ е това, което би довело до загуба на демокрациите от диктатурите. Защото, в случай че ние отприщим хаоса, властническите режими ще могат по-лесно да овладеят този безпорядък, в сравнение с биха могли да се оправят отворените общества. Същността на демокрацията е диалогът. Демокрацията е открит диалог, а както знаете диктатурата е диктат, има един човек, който диктува всичко, няма диалог. Демокрацията е диалог сред доста хора за това какво би трябвало да се направи, а диалозите се основават на езика. Когато ИИ хакне езика, това ще значи, че той може да унищожи нашата дарба да организираме логичен публичен диалог и по този метод ще унищожи демокрацията. Ако изчакаме хаоса, ще бъде прекомерно късно да го контролираме по либерален метод. Може би по властнически, тоталитарен метод към момента ще бъде допустимо да се контролира, само че по какъв начин можем демократично да контролираме нещо, в случай че не можем да проведем диалог за него? А в случай че не контролираме ИИ в точния момент, няма да можем повече да организираме логичен обществен диалог.

В умозаключение, ние се срещнахме с непознат разсъдък, не в космоса, а тук, на земята. Не знаем доста за този непознат разсъдък, също така че той може да унищожи нашата цивилизация. Затова би трябвало да удържим безотговорното разпространяване на този непознат разсъдък в нашите общества и да контролираме ИИ, преди той да контролира нас. Има доста регулации, които можем да предложим, само че първата регулация, която аз бих предложил, е да бъде наложително за ИИ да разкрива, че е ИИ. Ако аз беседвам с някого и не мога да кажа дали това е човек или е ИИ – това е краят на демокрацията. Защото това е краят на смисления публичен диалог.

И по този начин, какво мислите за това, което чухте в последните 20 или 25 минути? Някои от вас, допускам, може би, са разтревожени. Някои може да са гневни на корпорациите, които създават тези технологии, или на държавните управления, които не съумяват да ги контролират. Някои от вас може да са ядосани на мен, смятайки че пресилвам опасността или че заблуждавам публиката. Но каквото и да мислите, обзалагам се, че думите ми са имали някакво прочувствено влияние върху вас. Не единствено интелектуално влияние, само че и прочувствено. Аз одеве ви описах история и тази история евентуално ще промени мнението ви за някои неща и може даже да ви накара да предприемете някакви дейности в света. Но кой сътвори тази история, която вие одеве чухте и която промени мнението ви и мозъка ви? Заклевам се, че самичък написах текста на тази презентация, благодарение на още няколко човешки същества, въпреки че изображенията бяха основани благодарение на ИИ, само че се кълна, че най-малко думите, които чухте, са културен артикул на човешки разум или на няколко човешки мозъци. Но можете ли да бъдете безусловно сигурни, че това е тъкмо по този начин? Преди една година бихте могли. Преди една година нямаше в света, или най-малко в общественото пространство, нищо друго, с изключение на човешки разум, което можеше да създаде сходен комплициран и въздействащ текст. Сега е друго. Теоретично, текстът, който вие одеве чухте, би могъл да е генериран от не-човешки, непознат разсъдък. Помислете за миг, или за повече от миг.

Благодаря ви.

Водеща: Това беше изключителна презентация, Ювал, само че желая да схвана, какъв брой от вас намират това за плашещо?
Това е доста огромен брой доста умни хора тук, които намират това за плашещо. Има доста, доста въпроси, които би трябвало да бъдат заложени, по тази причина ще взема някои от публиката и някои онлайн. Господинът тук.

Проф. Сангуон Су: Аз съм редактор на Frontiers and sustainability, презентацията беше чудесна, доста одобрявам книгата Ви, доста надълбоко Ви оценявам. Едно нещо по отношение на регулациите за ИИ – изцяло съм склонен с правилото, само че въпросът е по какъв начин, нали по този начин. Смятам, че е доста мъчно да построиш нуклеарен реактор в мазето си, само че сигурно можеш да обучиш собствен ИИ в мазето много елементарно. Как можем да контролираме това и още един обвързван с това въпрос, има огромни конгреси за отваряне на науката, свободна информация, свободни данни и множеството ИИ са подготвени посредством потреблението на информация, която е обществено налична, в това число патенти, книги, трудове. Тогава регулирането на ИИ значи ли да контролираме и цялата тази информация, да я ограничим в пространството, което би било против свободния достъп до просвета, данни и други действия, които ние считаме, че са в действителност значими за нас? Черната кутия е логаритъм, нали?

Ювал: Винаги някаква замяна, значимото е просто да се разбере какъв тип регулации са ни нужни. На първо място, имаме потребност от време. Сега тези доста мощни ИИ принадлежности към момента не са създадени от обособени хакери в техните изби. Нужна е голяма компютърна мощност, големи пари, тъй че към този момент това се организира от няколко огромни корпорации и държавни управления. Но ще бъде доста, доста мъчно да се контролира нещо на световно равнище. Защото това е съревнование за превъзходство. Но има неща, които има смисъл страните да контролират сами за себе си. Като образеца, който дадох – когато ИИ взаимодейства с човек, той би трябвало да разкрива, че е ИИ. Дори и някой властнически режим да не желае да го прави, Европейски Съюз и Съединени американски щати, демократичните страни могат да го създадат. И това е от главно значение, с цел да бъде предпазено отвореното общество. Има доста въпроси към цензурата онлайн. Имаме и несъгласието за Туитър и Facebook – кой ги оторизира, да вземем за пример за предварителна защита против някогашния президент на Съединени американски щати, с цел да няма той право на обществени изказвания? И това е доста комплициран въпрос. Но има и доста елементарен въпрос. За ботовете. Човешките същества имат независимост на изразяването. Ботовете нямат независимост на изразяването. Това е човешко право, хората го имат, ботовете – не. Така че, в случай че откажем независимост на изложение на ботовете, мисля, че това ще е добре за всички.

Водеща: Още един въпрос, в случай че може да подадете микрофона нататък.

Проф. Франсоаз Бейтис: Аз съм мъдрец. Имам един забавен въпрос, или най-малко аз мисля, че е забавен въпрос. Въпросът ми е към Вас, моите почетения към избора Ви на език, употребявате вместо „ неестествен “ „ непознат “. Защото „ неестествен “ допуска, че към момента има прочут човешки надзор, до момента в който съгласно мен „ непознат “ допуска „ външен “, само че също и най-малко като мислена жива форма. Любопитна съм каква цел желаете да постигнете, употребявайки тези думи.

Ювал: Да, несъмнено „ неестествен “ носи смисъла на нещо, което ние сме произвели, само че то от ден на ден създава себе си. Все повече учи и се приспособява независимо, тъй че „ неестествен “ е в прочут смисъл пожелателно мислене, че към момента е в наш надзор. Но той излиза от нашия надзор и в този смисъл той става „ непозната “ мощ, не наложително зла – той може да направи и доста положителни неща. Но първото нещо, когато осъзнаем, че е „ непознат “ е, че не разбираме по какъв начин работи. Едно от най-шокиращите неща за тези технологии е, когато приказваш с хора, които ги водят и ги попиташ по какъв начин работи, какво може да прави, а те дават отговор, не знаем. Знаем по какъв начин сме го построили в началото, само че по-късно той в действителност учи самичък. Има обособен диалог, който би трябвало да бъде воден – това форма на живот ли е или не? Аз мисля, че той към момента няма схващане. Не считам, че е невероятно да развие схващане, само че и не мисля, че е належащо да развива схващане. Това е отворен въпрос. Но „ живот “ не значи наложително „ схващане “. Имаме доста форми на живот – микроорганизми, растения, други неща, фунги – които мислим, че нямат схващане, само че въпреки всичко гледаме на тях като форми на живот. Според мен ИИ се доближава доста покрай тази позиция. В последна сметка, несъмнено, какво е животът е един метафизичен въпрос. Тоест, ние дефинираме границите. Например, вирусът живот ли е или не? Мислим, че амебата е живот, само че вирусът е някъде навръх границата сред живот и неживот. Разбирате ли, въпрос на език е, въпрос е на нашия избор на думи. Разбира се, че е значимо по какъв начин назоваваме ИИ, само че най-важното нещо е фактически да разберем пред какво сме изправени и да не се успокояваме с пожелателно мислене – о, това ние го създадохме, ние го направляваме, в случай че направи нещо неприятно, просто ще му дръпнем щепсела. Вече никой не знае по какъв начин да дръпне щепсела.

Водеща: ще взема въпрос от феновете онлайн – от Майкъл Браун от Съединени американски щати. Какво мислите за изказванието, че към този момент съществува общоприет изкуствен интелект и той, или тези които имат достъп до него, към този момент влияят на обществата?
Ювал: Мисля, че е доста, доста необикновено. Ние нямаше да сме тук, в случай че в действителност съществуваше общоприет изкуствен интелект. Когато погледна света и безредното състояние, в което се намира – изкуственият разсъдък в действителност ще е краят на човешката история. Това е доста мощно нещо, никой не би могъл да го удържи и когато погледна към безредното положение на света, съм много сигурен, от историческа позиция, че никой на никое място няма такова нещо. Колко време ще отнеме да се създаде общоприет изкуствен интелект не знам, само че с цел да се застрашат основите на цивилизацията няма потребност от общоприет изкуствен интелект. Отново да се върнем на обществените медии – напълно, напълно примитивни ИИ бяха задоволителни за основаването на голям обществен и политически безпорядък. Ако мисля за това в някакви еволюционни термини, ИИ в този момент таман изпълзява от органичната чорба, като първите организми, изпълзяли от органичната чорба преди 4 милиарда години. Колко време ще е нужно да доближи Тиранозавър Рекс, какъв брой време ще отнеме да доближи Хомо Сапиенс – няма да са 4 милиарда години. Може да са единствено 40 години. Дигиталната гражданска война се движи в изцяло друг времеви мащаб от този на органичната еволюция.

Благодаря Ви, беше в действителност отлично, беше такова наслаждение да бъдете тук. Моля публиката да се причисли към мен и да благодарим на Ювал Ноа Харари.